Giai đoạn thành công gần đây nhất của câu lạc bộ là giai đoạn 1988-1989 khi họ giành vị trí thứ ba ở Giải hạng hai và sau đó được thăng lên Giải hạng nhất. Đội tiến sâu vào chung kết Cúp FA năm 1990 và chỉ chịu thua trong trận replay gặp Manchester United. Họ xếp thứ ba ở Giải hạng nhất mùa bóng 1990-1991. Crystal Palace là thành viên sáng lập Giải bóng đá Ngoại hạng Anh (1992-1993) nhưng lại bị xuống hạng cuối giải đấu đó. Tính đến nay, đội đã xen kẽ bị giáng hạng và thăng hạng lên Giải Ngoại hạng đến 4 lần. Lần xuống hạng gần đây nhất là mùa bóng 2004-2005.
Crystal Palace vốn là một đội bóng nghiệp dư được thành lập vào năm 1861 và là một trong những CLB đầu tiên thi đấu ở Cúp FA,vào được tới bán kết, và bị đánh bại bởi CLB Royal Engineers A.F.C.. Đội biến mất khỏi Cúp FA (không được thi đấu) khi để thua Wanderers 3-0 ở vòng hai Cúp FA 1875-1876, nhưng đây không phải là lần cuối Palace chơi ở FA Cup. Năm 1985, sân nhà của trận chung kết Cúp FA là ở The Crystal Palace, các ông chủ đã có ý tưởng để cho đội bóng được chơi ở Cúp FA một lần nữa.
Ban đầu, biệt danh của CLB là "The Glazier", được đặt vào ngày 10 tháng 9 năm 1905 theo sự chỉ dẫn của trợ lý thư ký Aston Villa Edmun Goodman. CLB được chơi cho Giải bóng đá hạng nhất Anh cùng với Chelsea và Southampton. Đội rớt hạng xuống Giải hạng nhì Anh ở mùa 1905-1906, nhưng đã giành chức vô địch ở mùa giải đầu tiên và được thăng hạng trở lại.